Python Circuit Breaker: Kļūdu tolerantu lietojumprogrammu veidošana

Izplatītu sistēmu un mikropakalpojumu pasaulē kļūmes ir neizbēgamas. Pakalpojumi var kļūt nepieejami tīkla problēmu, pārslogotu serveru vai negaidītu kļūdu dēļ. Ja bojāts pakalpojums netiek pareizi apstrādāts, tas var izraisīt kaskādes kļūmes, izraisot visu sistēmu darbības pārtraukumu. "Circuit Breaker" shēma ir spēcīga metode, lai novērstu šīs kaskādes kļūmes un veidotu noturīgākas lietojumprogrammas. Šis raksts sniedz visaptverošu ceļvedi "Circuit Breaker" shēmas ieviešanai Python.

Kas ir "Circuit Breaker" shēma?

"Circuit Breaker" shēma, iedvesmojoties no elektriskajiem ķēdes pārtraucējiem, darbojas kā starpnieks operācijām, kas varētu ciest neveiksmi. Tā uzrauga šo operāciju veiksmes un neveiksmes rādītājus un, kad ir sasniegts noteikts kļūmju slieksnis, "pārtrauc" ķēdi, novēršot turpmākus zvanus uz bojāto pakalpojumu. Tas dod bojātajam pakalpojumam laiku atjaunoties, to nepārslogojot ar pieprasījumiem, un novērš zvanītāja pakalpojuma resursu tērēšanu, mēģinot izveidot savienojumu ar pakalpojumu, kas, kā zināms, nedarbojas.

"Circuit Breaker" ir trīs galvenie stāvokļi:

• Closed (Slēgts): Ķēdes pārtraucējs ir normālā stāvoklī, ļaujot izsaukumiem nokļūt līdz aizsargātajam pakalpojumam. Tas uzrauga šo izsaukumu veiksmi un neveiksmi.
• Open (Atvērts): Ķēdes pārtraucējs ir "pārtraukts", un visi izsaukumi uz aizsargāto pakalpojumu ir bloķēti. Pēc noteikta taimauta perioda ķēdes pārtraucējs pāriet uz daļēji atvērtu (Half-Open) stāvokli.
• Half-Open (Daļēji atvērts): Ķēdes pārtraucējs atļauj ierobežotu skaitu testa izsaukumu uz aizsargāto pakalpojumu. Ja šie izsaukumi izdodas, ķēdes pārtraucējs atgriežas slēgtā (Closed) stāvoklī. Ja tie neizdodas, tas atgriežas atvērtā (Open) stāvoklī.

Lūk, vienkārša analoģija: Iedomājieties, ka mēģināt izņemt naudu no bankomāta. Ja bankomāts atkārtoti nespēj izsniegt naudu (iespējams, bankas sistēmas kļūdas dēļ), iejauktos "Circuit Breaker". Tā vietā, lai turpinātu mēģināt veikt izmaksas, kas, visticamāk, neizdosies, "Circuit Breaker" uz laiku bloķētu turpmākos mēģinājumus (Atvērts stāvoklis). Pēc kāda laika tas varētu atļaut vienu izmaksas mēģinājumu (Daļēji atvērts stāvoklis). Ja šis mēģinājums izdodas, "Circuit Breaker" atsāktu normālu darbību (Slēgts stāvoklis). Ja tas neizdodas, "Circuit Breaker" paliktu Atvērtā stāvoklī ilgāku laiku.

Kāpēc izmantot "Circuit Breaker"?

"Circuit Breaker" ieviešana sniedz vairākas priekšrocības:

• Novērš kaskādes kļūmes: Bloķējot zvanus uz bojātu pakalpojumu, "Circuit Breaker" novērš kļūmes izplatīšanos uz citām sistēmas daļām.
• Uzlabo sistēmas noturību: "Circuit Breaker" dod bojātiem pakalpojumiem laiku atjaunoties, nepārslogojot tos ar pieprasījumiem, tādējādi nodrošinot stabilāku un noturīgāku sistēmu.
• Samazina resursu patēriņu: Izvairoties no nevajadzīgiem izsaukumiem uz bojātu pakalpojumu, "Circuit Breaker" samazina resursu patēriņu gan zvanītāja, gan izsauktajā pakalpojumā.
• Nodrošina atkrītošos mehānismus: Kad ķēde ir atvērta, zvanītāja pakalpojums var izpildīt atkrītošu mehānismu, piemēram, atgriežot kešatmiņā saglabātu vērtību vai parādot kļūdas ziņojumu, nodrošinot labāku lietotāja pieredzi.

"Circuit Breaker" ieviešana Python

Ir vairāki veidi, kā ieviest "Circuit Breaker" shēmu Python. Jūs varat izveidot savu implementāciju no nulles vai izmantot trešās puses bibliotēku. Šeit mēs izpētīsim abas pieejas.

1. Pielāgota "Circuit Breaker" veidošana

Sāksim ar pamata, pielāgotu implementāciju, lai saprastu galvenos jēdzienus. Šajā piemērā tiek izmantots modulis `threading` pavedienu drošībai un modulis `time` taimautu apstrādei.

            
import time
import threading

class CircuitBreaker:
    def __init__(self, failure_threshold, recovery_timeout):
        self.failure_threshold = failure_threshold
        self.recovery_timeout = recovery_timeout
        self.state = "CLOSED"
        self.failure_count = 0
        self.last_failure_time = None
        self.lock = threading.Lock()

    def call(self, func, *args, **kwargs):
        with self.lock:
            if self.state == "OPEN":
                if time.time() - self.last_failure_time > self.recovery_timeout:
                    self.state = "HALF_OPEN"
                else:
                    raise CircuitBreakerError("Circuit breaker is open")

        try:
            result = func(*args, **kwargs)
            self.reset()
            return result
        except Exception as e:
            self.record_failure()
            raise e

    def record_failure(self):
        with self.lock:
            self.failure_count += 1
            self.last_failure_time = time.time()

            if self.failure_count >= self.failure_threshold:
                self.state = "OPEN"
                print("Circuit breaker opened")

    def reset(self):
        with self.lock:
            self.failure_count = 0
            self.state = "CLOSED"
            print("Circuit breaker closed")

class CircuitBreakerError(Exception):
    pass

# Example Usage
def unreliable_service():
    # Simulate a service that sometimes fails
    import random
    if random.random() < 0.5:
        raise Exception("Service failed")
    else:
        return "Service successful"

circuit_breaker = CircuitBreaker(failure_threshold=3, recovery_timeout=10)

for i in range(10):
    try:
        result = circuit_breaker.call(unreliable_service)
        print(f"Call {i+1}: {result}")
    except CircuitBreakerError as e:
        print(f"Call {i+1}: {e}")
    except Exception as e:
        print(f"Call {i+1}: Service failed: {e}")
    time.sleep(1) 

            

              
                Copy
              
            
          

Paskaidrojums:

• `CircuitBreaker` klase:
  • `__init__(self, failure_threshold, recovery_timeout)`: Inicializē ķēdes pārtraucēju ar kļūmju slieksni (kļūmju skaits pirms ķēdes pārtraukšanas), atkopšanas taimautu (laiks, kas jāgaida pirms mēģinājuma pāriet uz daļēji atvērtu stāvokli) un iestata sākotnējo stāvokli uz `CLOSED`.
  • `call(self, func, *args, **kwargs)`: Šī ir galvenā metode, kas ietin funkciju, kuru vēlaties aizsargāt. Tā pārbauda ķēdes pārtraucēja pašreizējo stāvokli. Ja tas ir `OPEN`, tā pārbauda, vai atkopšanas taimauts ir beidzies. Ja jā, tā pāriet uz `HALF_OPEN`. Pretējā gadījumā tā izmet `CircuitBreakerError`. Ja stāvoklis nav `OPEN`, tā izpilda funkciju un apstrādā iespējamās izņēmuma situācijas.
  • `record_failure(self)`: Palielina kļūmju skaitu un reģistrē kļūmes laiku. Ja kļūmju skaits pārsniedz slieksni, tas pārvieto ķēdi uz `OPEN` stāvokli.
  • `reset(self)`: Atiestata kļūmju skaitu un pārvieto ķēdi uz `CLOSED` stāvokli.
• `CircuitBreakerError` klase: Pielāgots izņēmums, kas tiek izmests, kad ķēdes pārtraucējs ir atvērts.
• `unreliable_service()` funkcija: Simulē pakalpojumu, kas nejauši cieš neveiksmi.
• Piemēra lietojums: Parāda, kā izmantot `CircuitBreaker` klasi, lai aizsargātu `unreliable_service()` funkciju.

Galvenie apsvērumi pielāgotai implementācijai:

• Pavedienu drošība: `threading.Lock()` ir ļoti svarīgs, lai nodrošinātu pavedienu drošību, īpaši vienlaicīgas izpildes vidēs.
• Kļūdu apstrāde: `try...except` bloks uztver izņēmumus no aizsargātā pakalpojuma un izsauc `record_failure()`.
• Stāvokļu pārejas: Loģika pārejai starp `CLOSED`, `OPEN` un `HALF_OPEN` stāvokļiem ir ieviesta `call()` un `record_failure()` metodēs.

2. Trešās puses bibliotēkas izmantošana: `pybreaker`

Lai gan sava "Circuit Breaker" veidošana var būt laba mācīšanās pieredze, labi pārbaudītas trešās puses bibliotēkas izmantošana bieži vien ir labāka izvēle ražošanas vidēm. Viena populāra Python bibliotēka "Circuit Breaker" shēmas ieviešanai ir `pybreaker`.

Instalēšana:

            
pip install pybreaker

            

              
                Copy
              
            
          

Piemēra lietojums:

            
import pybreaker
import time

# Define a custom exception for our service
class ServiceError(Exception):
    pass

# Simulate an unreliable service
def unreliable_service():
    import random
    if random.random() < 0.5:
        raise ServiceError("Service failed")
    else:
        return "Service successful"

# Create a CircuitBreaker instance
circuit_breaker = pybreaker.CircuitBreaker(
    fail_max=3,  # Number of failures before opening the circuit
    reset_timeout=10,  # Time in seconds before attempting to close the circuit
    name="MyService"
)

# Wrap the unreliable service with the CircuitBreaker
@circuit_breaker
def call_unreliable_service():
    return unreliable_service()

# Make calls to the service
for i in range(10):
    try:
        result = call_unreliable_service()
        print(f"Call {i+1}: {result}")
    except pybreaker.CircuitBreakerError as e:
        print(f"Call {i+1}: Circuit breaker is open: {e}")
    except ServiceError as e:
        print(f"Call {i+1}: Service failed: {e}")
    time.sleep(1)

            

              
                Copy
              
            
          

Paskaidrojums:

• Instalēšana: Komanda `pip install pybreaker` instalē bibliotēku.
• `pybreaker.CircuitBreaker` klase:
  • `fail_max`: Norāda secīgu kļūmju skaitu pirms ķēdes pārtraucēja atvēršanas.
  • `reset_timeout`: Norāda laiku (sekundēs), cik ilgi ķēdes pārtraucējs paliek atvērts pirms pārejas uz daļēji atvērtu stāvokli.
  • `name`: Aprakstošs nosaukums ķēdes pārtraucējam.
• Dekorators: `@circuit_breaker` dekorators ietin `unreliable_service()` funkciju, automātiski apstrādājot ķēdes pārtraucēja loģiku.
• Izņēmumu apstrāde: `try...except` bloks uztver `pybreaker.CircuitBreakerError`, kad ķēde ir atvērta, un `ServiceError` (mūsu pielāgoto izņēmumu), kad pakalpojums cieš neveiksmi.

Priekšrocības, izmantojot `pybreaker`:

• Vienkāršota implementācija: `pybreaker` nodrošina tīru un ērti lietojamu API, samazinot standartkodu.
• Pavedienu drošība: `pybreaker` ir pavedienu drošs, padarot to piemērotu vienlaicīgām lietojumprogrammām.
• Pielāgojams: Jūs varat konfigurēt dažādus parametrus, piemēram, kļūmju slieksni, atiestatīšanas taimautu un notikumu klausītājus.
• Notikumu klausītāji: `pybreaker` atbalsta notikumu klausītājus, ļaujot jums uzraudzīt ķēdes pārtraucēja stāvokli un attiecīgi veikt darbības (piemēram, reģistrēšana, brīdinājumu sūtīšana).

3. Papildu "Circuit Breaker" koncepcijas

Papildus pamata implementācijai, ir vairākas papildu koncepcijas, kas jāņem vērā, izmantojot "Circuit Breaker":

• Metrikas un uzraudzība: Metriku vākšana par jūsu "Circuit Breaker" veiktspēju ir būtiska, lai saprastu to darbību un identificētu iespējamās problēmas. Bibliotēkas, piemēram, Prometheus un Grafana, var izmantot šo metriku vizualizēšanai. Izsekojiet tādām metrikām kā:
• "Circuit Breaker" stāvoklis (Atvērts, Slēgts, Daļēji atvērts)
• Veiksmīgu izsaukumu skaits
• Neveiksmīgu izsaukumu skaits
• Izsaukumu latentums
• Atkrītošie mehānismi: Kad ķēde ir atvērta, jums ir nepieciešama stratēģija pieprasījumu apstrādei. Bieži sastopami atkrītošie mehānismi ietver:
• Kešatmiņā saglabātas vērtības atgriešanu.
• Kļūdas ziņojuma parādīšanu lietotājam.
• Alternatīva pakalpojuma izsaukšanu.
• Noklusējuma vērtības atgriešanu.
• Asinhronie "Circuit Breaker": Asinhronās lietojumprogrammās (izmantojot `asyncio`) jums būs jāizmanto asinhrona "Circuit Breaker" implementācija. Dažas bibliotēkas piedāvā asinhronu atbalstu.
• "Bulkheads" (Starpsienas): "Bulkhead" shēma izolē lietojumprogrammas daļas, lai novērstu kļūmes vienā daļā, kas varētu izplatīties uz citām. "Circuit Breaker" var izmantot kopā ar "Bulkheads", lai nodrošinātu vēl lielāku kļūdu toleranci.
• Laikā balstīti "Circuit Breaker": Tā vietā, lai izsekotu kļūmju skaitu, laikā balstīts "Circuit Breaker" atver ķēdi, ja aizsargātā pakalpojuma vidējais atbildes laiks pārsniedz noteiktu slieksni noteiktā laika logā.

Praktiski piemēri un lietošanas gadījumi

Lūk, daži praktiski piemēri, kā dažādos scenārijos varat izmantot "Circuit Breaker":

• Mikropakalpojumu arhitektūra: Mikropakalpojumu arhitektūrā pakalpojumi bieži ir atkarīgi viens no otra. "Circuit Breaker" var aizsargāt pakalpojumu no pārslogošanas, ko izraisa kļūmes pakārtotā pakalpojumā. Piemēram, e-komercijas lietojumprogrammai var būt atsevišķi mikropakalpojumi produktu katalogam, pasūtījumu apstrādei un maksājumu apstrādei. Ja maksājumu apstrādes pakalpojums kļūst nepieejams, "Circuit Breaker" pasūtījumu apstrādes pakalpojumā var novērst jaunu pasūtījumu izveidi, novēršot kaskādes kļūmi.
• Datu bāzes savienojumi: Ja jūsu lietojumprogramma bieži savienojas ar datu bāzi, "Circuit Breaker" var novērst savienojumu "vētras", kad datu bāze nav pieejama. Apsveriet lietojumprogrammu, kas savienojas ar ģeogrāfiski izplatītu datu bāzi. Ja tīkla pārtraukums ietekmē vienu no datu bāzes reģioniem, "Circuit Breaker" var novērst lietojumprogrammas atkārtotus mēģinājumus savienoties ar nepieejamo reģionu, uzlabojot veiktspēju un stabilitāti.
• Ārējās API: Izsaucot ārējās API, "Circuit Breaker" var aizsargāt jūsu lietojumprogrammu no īslaicīgām kļūdām un pārtraukumiem. Daudzas organizācijas paļaujas uz trešo pušu API dažādām funkcionalitātēm. Ietverot API izsaukumus ar "Circuit Breaker", organizācijas var veidot stabilākas integrācijas un samazināt ārējo API kļūmju ietekmi.
• Atkārtotas mēģināšanas loģika: "Circuit Breaker" var darboties kopā ar atkārtotas mēģināšanas loģiku. Tomēr ir svarīgi izvairīties no agresīvām atkārtotām mēģināšanām, kas var pasliktināt problēmu. "Circuit Breaker" vajadzētu novērst atkārtotas mēģināšanas, ja pakalpojums, kā zināms, nav pieejams.

Globālie apsvērumi

Ieviešot "Circuit Breaker" globālā kontekstā, ir svarīgi ņemt vērā šādas lietas:

• Tīkla latentums: Tīkla latentums var ievērojami atšķirties atkarībā no zvanītāja un izsauktā pakalpojuma ģeogrāfiskās atrašanās vietas. Atbilstoši pielāgojiet atkopšanas taimautu. Piemēram, zvani starp pakalpojumiem Ziemeļamerikā un Eiropā var saskarties ar lielāku latentumu nekā zvani vienā un tajā pašā reģionā.
• Laika joslas: Nodrošiniet, ka visi laika zīmogi tiek apstrādāti konsekventi dažādās laika joslās. Izmantojiet UTC laika zīmogu glabāšanai.
• Reģionālie pārtraukumi: Apsveriet reģionālu pārtraukumu iespējamību un ieviešiet "Circuit Breaker", lai izolētu kļūmes konkrētos reģionos.
• Kultūras apsvērumi: Izstrādājot atkrītošos mehānismus, ņemiet vērā savu lietotāju kultūras kontekstu. Piemēram, kļūdas ziņojumiem jābūt lokalizētiem un kultūrai atbilstošiem.

Labākā prakse

Lūk, dažas labākās prakses efektīvai "Circuit Breaker" izmantošanai:

• Sāciet ar konservatīviem iestatījumiem: Sāciet ar salīdzinoši zemu kļūmju slieksni un garāku atkopšanas taimautu. Uzraugiet "Circuit Breaker" darbību un pēc vajadzības pielāgojiet iestatījumus.
• Izmantojiet atbilstošus atkrītošos mehānismus: Izvēlieties atkrītošos mehānismus, kas nodrošina labu lietotāja pieredzi un samazina kļūmju ietekmi.
• Uzraugiet "Circuit Breaker" stāvokli: Izsekojiet savu "Circuit Breaker" stāvoklim un iestatiet brīdinājumus, lai saņemtu paziņojumus, kad ķēde ir atvērta.
• Pārbaudiet "Circuit Breaker" darbību: Simulējiet kļūmes savā testēšanas vidē, lai pārliecinātos, ka jūsu "Circuit Breaker" darbojas pareizi.
• Izvairieties no pārmērīgas paļaušanās uz "Circuit Breaker": "Circuit Breaker" ir rīks kļūmju mazināšanai, taču tie neaizstāj pamatcēloņu novēršanu. Izpētiet un novērsiet pakalpojumu nestabilitātes pamatcēloņus.
• Apsveriet izplatīto izsekošanu: Integrējiet izplatītās izsekošanas rīkus (piemēram, Jaeger vai Zipkin), lai izsekotu pieprasījumus starp vairākiem pakalpojumiem. Tas var palīdzēt identificēt kļūmju pamatcēloņus un saprast "Circuit Breaker" ietekmi uz kopējo sistēmu.

Secinājums

"Circuit Breaker" shēma ir vērtīgs rīks kļūdu tolerantu un noturīgu lietojumprogrammu veidošanai. Novēršot kaskādes kļūmes un dodot bojātiem pakalpojumiem laiku atjaunoties, "Circuit Breaker" var ievērojami uzlabot sistēmas stabilitāti un pieejamību. Neatkarīgi no tā, vai izvēlaties veidot savu implementāciju vai izmantot trešās puses bibliotēku, piemēram, `pybreaker`, izpratne par "Circuit Breaker" shēmas pamatkoncepcijām un labāko praksi ir būtiska, lai izstrādātu stabilu un uzticamu programmatūru mūsdienu sarežģītajās izplatītajās vidēs.

Ieviešot šajā ceļvedī aprakstītos principus, jūs varat veidot Python lietojumprogrammas, kas ir noturīgākas pret kļūmēm, nodrošinot labāku lietotāja pieredzi un stabilāku sistēmu, neatkarīgi no jūsu globālās sasniedzamības.